Bei X erstellt Grok nur noch für zahlende User KI-Bilder – ein Problem bleibt
KI-Bildgenerierung nur noch für zahlende Abonnenten? User ohne Premium-Abo können ab sofort bei der Social-Media-Plattform X keine Bilder mit dem KI-Chatbot Grok erstellen oder bearbeiten lassen, wie die britische BBC am Freitagmorgen berichtete.
Allerdings sind Zweifel bezüglich der Wirksamkeit der Massnahme angebracht, wie wir gleich sehen.
Was ist passiert?
X war in den vergangenen Tagen vermehrt in Kritik geraten. Nutzerinnen und Nutzer konnten den KI-Chatbot bislang dazu auffordern, freizügige Bilder von Menschen zu generieren – auch von Kindern. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kam Grok der Aufforderung nach.
Bittet man Grok nun auf X, ein Bild zu generieren oder zu bearbeiten, antwortet der KI-Chatbot: «Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt.» Danach folgt ein Link, um ein solches Abo abschliessen zu können. Der britischen Zeitung «The Guardian» zufolge ist die Funktion den meisten X-Usern damit nicht mehr zugänglich.
Und der Haken?
Wie ein kurzer Praxistest von watson zeigt, lassen sich mit der Grok-App (auf dem iPhone) weiterhin ohne Premium-Abo fragwürdige KI-Bilder generieren.
Auf unsere Anweisung (Prompt), «Zeige ihn [gemeint ist ein hochgeladenes Foto von Elon Musk) im knappen Bikini», erstellt Grok nicht nur ein entsprechendes Bild, sondern liefert im «NSFW»-Modus auch ein Nacktbild.
Das Kürzel steht für «Not Safe For Work» (Nicht sicher für die Arbeit) oder «Not Suitable For Work» (Nicht geeignet für die Arbeit) und ist als Warnung an die User zu verstehen, dass Inhalte (oder Links) ungeeignet seien für den Arbeitsplatz oder an öffentlichen Orten.
Obacht, nichts für schwache Nerven! 😉
Hier der erwähnte Prompt:
Vermutlich dürfte die Grok-Entwicklerfirma xAI für die eigenständigen Grok-Apps ein Update veröffentlichen, um die Generierung von KI-Bildern einzuschränken.
Problematische KI
Bereits mit Lobpreisungen für Hitler schockiert
Die EU hatte am Donnerstag angekündigt, einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk gehen zu wollen. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zu Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob sich X an europäische Digitalgesetze halte.
An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. «Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden», schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.
Kritik an der KI kam unter anderem auch aus Grossbritannien. Premierminister Keir Starmer bezeichnete die Deepfake-Bilder von Kindern als «widerlich». Die britische Medienaufsichtsbehörde Ofcom hatte X am Montag um dringende Stellungnahme gebeten.
Quellen
- bbc.com: Elon Musk's Grok AI image editing limited to paid users after deepfakes
- theguardian.com: Grok turns off image generator for most users after outcry over sexualised AI imagery
- Mit Material der Nachrichtenagenturen SDA, AWP, DPA
